Становище: Изключителното извинение на Марк Зукърбърг трябва да е само началото

Бележка на редактора: Кара Алаймо, доцент по връзка в университета Феърли Дикинсън, написа за проблеми, засягащи дамите и обществените медии. Нейната книга „  ще бъде оповестена от Alcove Press на 5 март 2024 година Следвайте я на ,  и . Мненията, изразени в този коментар, са нейни лични. Прочетете в CNN.

В сряда основните изпълнителни шефове на Meta, TikTok, X, Snap и Discord свидетелстваха пред Сената за това какво вършат, с цел да защитят децата от щета онлайн. Докато Марк Зукърбърг от Meta и Shou Chew от TikTok се явиха непринудено, сенаторът от Демократическата партия Дик Дърбин от Илинойс наказа Евън Шпигел от Snap, Линда Якарино от X и Джейсън Ситрон от Discord, че би трябвало да бъдат призовани и означи, че федералните маршали би трябвало да бъдат изпратени в офисите на Citron, с цел да служат на неговите призовка.

Дърбин обвини обществените мрежи в увреждане на психологичното здраве на децата, като сподели, че те освен „ са съдействали за тази рецесия, те са виновни за доста от заплахите, пред които са изправени нашите деца онлайн “.

Сенаторите също показаха угриженост по отношение на метода, по който децата биват експлоатирани онлайн. „ Сексуалните изнудвачи “ да вземем за пример убеждават децата да споделят пикантни изображения – от време на време като се преструват, че основават сантиментална връзка – и по-късно ги изнудват, като заплашват да създадат изображенията обществени, в случай че не дават по-явно наличие или пари (или от време на време, и двете). Това може да унищожи живота на хората и да ги изложи на риск от меланхолия и самоубийство. „ Имате кръв по ръцете си “, сподели сенаторът републиканец от Южна Каролина Линдзи Греъм на ръководителите.

В навечерието на свидетелските показания софтуерните компании оповестиха нови начинания за отбрана на децата. Приложения като Instagram и TikTok карат децата да си вършат почивки или да лимитират времето си пред екрана и са трансформирали своите логаритми, с цел да демонстрират на децата по-малко токсично наличие, като изявления за хранителни разстройства. Meta споделя, че крие този тип неуместно наличие от децата и е трансформирала настройките за дискретност по дифолт на младежите, с цел да предотврати хората, които не познават, да им изпращат известия. Snapchat дава на родителите повече благоприятни условия за надзор, като информация за настройките за сигурност на децата им.

Чу свидетелства, че в TikTok сметките за деца под 16-годишна възраст са заложени като частни и не се предлагат на хора, които не познават, а Яккарино сподели, че децата на възраст сред 13 и 17 не могат да одобряват известия от хора, които не познават одобри на X. Spiegel означи, че няма обществени лайкове или мнения в Snapchat. Това са всички сериозни характерности.

Зукърбърг също се изправи и се извини на фамилиите на деца, засегнати от обществените медии, които участваха на чуването, като сподели: „ Съжалявам за всичко, през което сте минали. Никой не би трябвало да минава през нещата, които вашите фамилии са претърпели, и по тази причина ние влагаме толкоз доста и ще продължим да поставяме старания в цялата промишленост, с цел да сме сигурни, че никой не би трябвало да минава през нещата, които вашите фамилии са претърпели. “

Но не е задоволително. Законодателите и софтуерните компании би трябвало да създадат доста повече, с цел да защитят нашите деца.

Законът Stop CSAM (Child Sexual Abuse Materials) от 2023 г. ще направи допустимо софтуерните компании да бъдат подведени под гражданска отговорност за хостване на материали със полово принуждение над деца. Това би бил значим метод за стимулиране на софтуерните компании да създадат повече, с цел да защитят децата от полово изнудване и други форми на онлайн употреба.

Законът SHIELD би криминализирал шерването или опасността за шерване на интимни изображения без единодушието на лицето (което е известно известно като „ порно за възмездие “). Това също е главен метод за отбрана на деца и възрастни.

Технологичните компании също имат доста повече работа. Въпреки че може да настояват, че демонстрират на децата по-малко нездравословни изявления, към момента не е ясно по какъв начин разпознават какво е нездравословно. Технологичните компании би трябвало да работят с специалисти по здравето на подрастващите, с цел да разработят и споделят стандарти за наличие, което може да се демонстрира на деца, тъй че евентуално нездравословни изявления за неща като изображение на тялото и психологично здраве въобще да не се появяват в техните излъчвания, тъй че основателите на наличие да знаят какви са разпоредбите и може да се опита да ги съблюдава. След това те би трябвало да наемат доста повече човешки модератори, с цел да дефинират дали наличието дава отговор на тези стандарти, преди да го покажат на деца.

Не можем да се доверим на принадлежности за изкуствен интелект за осъществяване на тази инспекция – един вътрешен документ показа, че автоматизираните системи са премахнали по-малко от 1% от наличие, което нарушава разпоредбите на компанията за принуждение и подбудителство, да вземем за пример. (Зукърбърг сподели по време на чуването, че „ към 99% “ от наличието, което Meta отстранява, се разпознава автоматизирано благодарение на AI.) Но да се открият способи хората да ревизират наличието не е толкоз мъчно, колкото може да звучи – Snapchat, да вземем за пример, не t разпространява видеоклипове от своята създателска стратегия на повече от 25 души, до момента в който не бъдат прегледани от човешки модератори.

Също по този начин би трябвало да знаем на какви огромни трендове са изложени нашите деца онлайн. Понастоящем никоя от тези платформи не ни дава добри метрики за това какво е наклонността в техните платформи. TikTok, да вземем за пример, неотдавна деактивира функционалността за търсене на инструмент, който разрешава на хората да търсят известни хаштагове в приложението, на фона на отчет, съгласно който тематики, цензурирани от китайското държавно управление, са по-малко публикувани в TikTok, в сравнение с в Instagram. Всички обществени приложения би трябвало да дават принадлежности, които демонстрират какво е наклонността, и също по този начин разрушават какво е наклонността измежду потребителите под 18 години, тъй че родителите да знаят защо да приказват с децата си.

Както пиша в моята предстояща книга „ Над въздействието: за какво обществените медии са токсични за дамите и девойките – и по какъв начин можем да си ги върнем “, когато децата търсят наличие, обвързвано с психологичното здраве, софтуерните компании би трябвало да им демонстрират кутии с връзки на организации, които могат да им оказват помощ. Учудващо е да се мисли, че вместо това на децата, които търсят това наличие, може да се дават видеоклипове, които утежняват проблемите им.

В моята книга също настоявам, че тези приложения би трябвало да разпознават по кое време фотосите са били филтрирани или манипулирани по различен метод, тъй че на децата непрекъснато да се припомня, че изображенията, които виждат на телата на други хора, постоянно не са действителни. Това може да им помогне да развият реалистични изображения на тялото.

Вземете нашия безвъзмезден седмичен бюлетин

И най-после, тези софтуерни компании би трябвало да се оправят по-добре с потреблението на своите платформи, с цел да дават на децата информация, която им оказва помощ и ги овластява – като уроци по какъв начин да употребяват обществените медии по здравословен метод. Например, по петите на голи deepfakes на Тейлър Суифт, които циркулират онлайн през последните дни, обществените приложения би трябвало да демонстрират на децата наличие за това по какъв начин да разпознават подправени изображения и за какво в никакъв случай не би трябвало да ги основават или да се ангажират с тях. Както пиша в книгата си, когато голи изображения на жена циркулират онлайн, това я излага на по-голям риск от полово принуждение, безработица, затруднено запознанство, меланхолия и даже самоубийство.

Техническите ръководители дадоха обещание да защитят децата в показанията си пред сенатори. Но те не дадоха обещание да създадат това, което в действителност е належащо, с цел да защитят физическото и психическото благоденствие на децата. За да защитят децата в своите приложения, те би трябвало да основат и наложат по-добри стандарти за наличие, което се демонстрира на децата, заедно с повече човешки модератори, запаси за психологично здраве, уроци за деца и откриване, когато наличието е манипулирано. И законодателите би трябвало да одобряват законодателство за битка със половата употреба онлайн. Тези типове решения биха дали на родителите нещо, което в действителност да харесат.